The Illusion of Equivalency: Statistical Characterization of Quantization Effects in LLMs
LLM 量化等效性幻觉：统计刻画与行为分歧度量
🧭 量化效应分析 · 行为分歧度量
University of Manitoba · Red River College Polytechnic · University of Central Florida
提出 correctness agreement 指标揭示量化导致的行为分歧，发现 query/key 投影对量化更敏感
📌 工作参考价值（5 点）
- *可以在推荐/搜索系统中这样借鉴：
- 部署量化推荐模型（如 LLM-based ranker）时，不能只监控离线 AUC/GAUC，应引入 correctness agreement 这类行为指标，防止量化后模型对同一批样本给出迥异的精排序结果，却因整体指标持平而被忽略。
- 研究发现 query 和 key 投影层比 value/output 投影对量化更敏感；在混合精度量化策略里，可优先保留这几层为高精度（如 INT8 甚至 FP16），降低推荐模型推理成本的同时，守住 query–item 匹配的稳定性。
- 低比特（≤4-bit）存在非线性断点，业务落地时建议以 8-bit 作为安全起始点，逐步尝试 6/4-bit，并逐层分析 attention 分布的 KL 散度，避免直接跳进极低精度带来的冷启动召回崩溃。
- correctness agreement 不依赖绝对准确率，可作为生成式推荐（如 Semantic ID 生成）的评估指标：量化后生成 item 序列与全精度模型的一致性，比困惑度更能反映线上效果。